21 урок для XXI века  - Юваль Ной Харари

Люди обрели власть над миром потому, что лучше других животных умеют сотрудничать друг с другом, а способность к сотрудничеству основана на вере в вымысел. Поэтому поэты, художники и драматурги не менее важны, чем солдаты и инженеры. Люди отправляются воевать и строят соборы потому, что верят в Бога, а верят в Бога потому, что читали стихи о Боге, видели картины с изображением Бога, были очарованы театральными представлениями о Боге. Точно так же наша вера в современную мифологию капитализма основана на художественных творениях Голливуда и поп-индустрии. Мы верим, что если купим больше вещей, то станем счастливее, потому что собственными глазами видели капиталистический рай в телевизоре.

В начале XXI века важнейшим художественным жанром, вероятно, стала научная фантастика. Мало кто читает новейшие научные статьи о машинном обучении или генной инженерии. Отношение людей к ключевым изменениям в технологии, обществе и экономике формируют фильмы, такие как «Матрица» и «Она», и сериалы вроде «Мира Дикого запада» и «Черного зеркала». Но это значит, что создатели научной фантастики должны более ответственно относиться к тому, как они изображают научную реальность; в противном случае они могут внушить людям неверные идеи или привлечь внимание к несуществующим проблемам.

Как отмечалось в предыдущей главе, самый большой грех современной научной фантастики, пожалуй, в том, что ее авторы склонны путать интеллект с сознанием. В результате они слишком обеспокоены возможной войной между роботами и людьми, тогда как нам следует бояться конфликта между немногочисленной элитой суперменов, вооруженных алгоритмами, и огромным низшим классом бесправных Homo sapiens. Размышляя о будущем искусственного интеллекта, пока что лучше обращаться к Карлу Марксу, чем к Стивену Спилбергу.

И действительно, многие фильмы на тему искусственного интеллекта чрезвычайно далеки от научной реальности, и возникает подозрение, что это лишь аллегории или что они отражают совсем другие проблемы. Так, снятый в 2015 году фильм «Из машины» вроде бы рассказывает о специалисте в области искусственного интеллекта, влюбившемся в женщину-робота, которая обманывает его и манипулирует им. Но в действительности фильм повествует не о страхе человека перед умными роботами, а о страхе мужчин перед умными женщинами – в частности, перед тем, что равноправие женщин может привести к их доминированию. Если вы смотрите фильм об искусственном интеллекте, в котором искусственный интеллект – женщина, а ученый – мужчина, скорее всего, это фильм о феминизме, а не о кибернетике. Зачем, в конце концов, искусственному интеллекту нужна гендерная идентичность и сексуальная ориентация? Секс – это привилегия органических многоклеточных существ. Какой в нем смысл для неорганической кибернетической сущности?

Одна из тем, в которых научная фантастика проявляет гораздо большую прозорливость, связана с опасностью использования технологии для манипуляции человеческими существами и контроля над ними. В фильме «Матрица» изображен мир, в котором почти все люди заперты в киберпространстве и все их переживания определяются управляющим алгоритмом. В «Шоу Трумана» показан человек, который, сам того не сознавая, стал звездой телевизионного реалити-шоу. Выясняется, что все окружающие его люди – в том числе мать, жена и лучший друг – на самом деле актеры. Все, что с ним происходит, подчиняется искусно сочиненному сценарию, а все, что он говорит или делает, снимается скрытыми камерами и транслируется на многомиллионную аудиторию поклонников.

Тем не менее оба фильма – несмотря на все их достоинства – не решаются рассказать о реальных последствиях, заданных сценарием. Они предполагают, что люди, запертые в матрице, обладают настоящей личностью, которую не затронули технологические манипуляции, а за пределами матрицы есть настоящий мир, до которого герои, если очень постараются, могут добраться. Матрица – это лишь искусственный барьер, отделяющий настоящую внутреннюю личность от настоящего внешнего мира. Преодолев многочисленные препятствия и трудности, оба героя – Нео из «Матрицы» и Труман из «Шоу Трумана» – сумели одержать победу и вырваться из паутины манипуляций, обрести свою истинную личность, достичь настоящей «земли обетованной».

Довольно забавно, что эта настоящая «земля обетованная» в основных аспектах не отличается от вымышленной матрицы. Убегая из телевизионной студии, Труман хочет найти свою школьную любовь, которую директор шоу исключил из проекта. Но если романтическая фантазия Трумана сбудется, его жизнь будет выглядеть точно так же, как голливудская мечта, которую «Шоу Трумана» продавало миллионам зрителей в разных странах – плюс отпуск на Фиджи. Фильм не дает нам даже намека, какая жизнь может ждать Трумана в реальном мире.

Точно так же, когда Нео разрушает матрицу, проглотив знаменитую красную таблетку, выясняется, что мир снаружи не слишком отличается от мира внутри. В нем тоже есть жестокие конфликты, а люди движимы страхом, похотью, любовью и завистью. Фильм должен был бы закончиться тем, что Нео сообщают, что реальность, в которую он попал, всего лишь еще более масштабная матрица, и, если он хочет вырваться в «настоящий реальный мир», ему снова нужно выбирать между синей и красной таблеткой.

Нынешняя революция в науке и технологиях дает понять: дело не в том, что алгоритмы и телевизионные камеры способны манипулировать аутентичными индивидами и аутентичной реальностью, а в том, что аутентичность – миф. Люди боятся оказаться запертыми в матрице, но не понимают, что уже заперты в матрице своего сознания, которое, в свою очередь, заперто внутри еще большей матрицы – человеческого общества с его бесчисленными вымыслами. Освобождаясь от матрицы, единственное, что вы можете обнаружить, это еще более масштабную матрицу. Когда в 1917 году крестьяне и рабочие в России подняли восстание против царя, они в итоге получили Сталина; когда вы начинаете анализировать множество способов, которыми мир вами манипулирует, то в конце концов понимаете, что ваша внутренняя идентичность – сложная иллюзия, созданная нейронными сетями.

Люди боятся, что, будучи запертыми в матрице, они не смогут видеть и осязать все чудеса мира. Пока Нео находится внутри компьютерной симуляции, а Труман – внутри телевизионной студии, они никогда не увидят Фиджи, Париж или Мачу-Пикчу. На самом деле все чувства и переживания находятся в вашем теле и вашем мозгу. Освобождение от матрицы или путешествие на Фиджи ничего не изменят. В вашем мозгу нет железного сейфа с большой красной надписью «Открыть только на Фиджи». Когда вы наконец доберетесь до южной части Тихого океана, вы не откроете сейф и не обнаружите особые эмоции и чувства, которые сможете испытать только там. И если вы никогда в жизни не побываете на Фиджи, эти особые чувства не останутся для вас недоступными. Ничего подобного! Все, что вы можете испытать на Фиджи, вы можете почувствовать в любом другом месте – даже внутри матрицы.

Возможно, мы все живем внутри гигантской компьютерной симуляции, как в фильме «Матрица». Это противоречит всем нашим национальным, религиозным и идеологическим представлениям. Но наши ощущения остаются реальными. Если выяснится, что человеческая история – искусная симуляция, выполняемая на суперкомпьютере, который построили похожие на крыс ученые с планеты Циркон, это станет очень неприятной новостью для последователей Карла Маркса и «Исламского государства». Но эти крысы-ученые все равно должны ответить за геноцид армян и за Освенцим. Как они сумели провести свой проект через комитет по этике Цирконского университета? Даже если газовые камеры были всего лишь электрическими сигналами в кремниевых микросхемах, то боль, страх и отчаяние не стали от этого менее мучительными.